Ограничение размера массива mas только 5 битами с помощью модификатора __bits(5). В задаче массив должен быть 8 бит (1 байт).